NVIDIA、AMD 的「頂尖對決」：AI筆記王者之爭、高通及記憶體戰場會不會成為第三勢力

十年內，AI 不再只是演算法的事：它把整個半導體、資料中心與雲端網路拉進一場前所未有的競賽。

NVIDIA 以 CUDA 生態系、軟硬整合與持續推出高效能 GPU（例如 H100、H200/GB 系列）建立起龐大的護城河；AMD 則透過 Instinct MI300 系列（特別是 MI300X/MI300A）以更大的記憶體容量、較高的 HBM 頻寬以及價格/效能比來直搗其弱點。

到 2025 年底，手機晶片巨頭高通也正式宣布要把設計延伸到資料中心層級，推出 AI200/AI250 與整櫃解決方案，試圖在推理與能效市場尋找切入點。筆者透過 AIMochi 筆記工具，來看看這場AI晶片霸主之爭!

NVIDIA 的強項並非只在於單顆晶片的每秒兆次浮點運算 (TFLOPS) 數字，而是其長期建立的軟體生態（CUDA、cuDNN、TensorRT、NeMo 等）與合作夥伴生態系。對許多 AI 研發團隊與雲端業者來說，選擇 NVIDIA 不只是硬體選擇，也是工程效率、工具鏈與現成優化的選擇。

NVIDIA 也把重點放在整體解決方案（例如 DGX、HGX 架構、以及最新的 GB 系列伺服器），令其在大規模訓練與超大模型部署上持續占優。超級電腦與大規模訓練機（例如某些以 H100 為基礎的系統）進一步鞏固其市場主導地位。

AMD 的策略帶有明顯對位性：若 NVIDIA 在生態與軟體上佔優，那 AMD 就在硬體規格上打出差異化牌。

MI300 系列的重要賣點包括更大的 HBM 容量與更高的記憶體頻寬（在某些型號上可勝過 H100/H200），這對於需要大量上下文與參數的 LLM（大型語言模型）訓練與推理，能直接翻轉效能表現與成本結構。

實務測試（包含 MLPerf 與第三方基準）顯示，在某些模型與工作負載下，MI300 可與 H100 媲美甚至優於之，特別是在記憶體綁定（memory-bound）場景。AMD 也把自己定位為「機房成本效率」的選擇，吸引希望用更低成本擴充算力的雲端與企業用戶。

硬體競爭不是單一維度。當前產業正在出現明顯分化：

訓練（training）：偏向超大規模、需要大量浮點計算與極致互連（NVLink、XLink 等）。這一塊 NVIDIA 長期受惠於軟體與整合。
推理（inference）：對延遲、記憶體容量、功耗敏感，並且對成本敏感，是 AMD、Intel、與新興廠商嘗試突圍的重點。
記憶體與帶寬：對於大型 context window 與巨型參數模型，HBM 容量與頻寬成為能否一次性載入更多參數的關鍵；在這點上 AMD 的 MI300X 被看作真實威脅。

即便單顆晶片規格出色，若沒有上層工具與廣泛的軟體支援，採用成本與工程難度會抬高。

NVIDIA 的 CUDA 已深植研究界與生產環境，轉換成本高；AMD 與其他對手必須透過軟體堆疊（例如開放的計算框架、針對性優化的驅動與庫）來降低客戶遷移門檻。

近年 AMD 也逐步在軟體工具與合作者關係上投入，但要追趕 CUDA 的深度依然需要時間與大量合作案。

2025 年 10 月，高通正式宣布進軍資料中心 AI 市場，推出 AI200 與 AI250，以及以整櫃（rack-scale）為單位的服務化硬體方案，並已獲得初期客戶承諾（例如 HUMAIN 的大規模部署意向）。

高通這次進軍的訊號有三點重要含義：

一、手機處理器廠商尋求業務多角化以對抗手機市場飽和；

二、高通專注於「高效推理」與能耗優化，走差異化路線；

三、若高通能拿到大額客戶合約並建立軟硬一體化解決方案，它可能成為第三條可觀的競爭路徑，尤其在推理市場與邊緣/雲協同場景。

NVIDIA 持續領先、其他供應商成為利基玩家：若 NVIDIA 保持生態與整體市場佈局（包含軟體、網路、系統整合），其他廠商則各取所長，針對推理、成本敏感市場或特殊應用（如 HPC、科學計算）取勝。
多中心競爭（NVIDIA、AMD、高通、Intel 等共存）：這是較可能的情形，因為不同客戶有不同需求（極大訓練 vs. 節能推理 vs. 成本擴充），而且雲端巨頭會尋求供應多元化以降低供應風險。AMD 與 NVIDIA 的性能差距在某些工作負載已經大幅縮小。
市場分層與標準化：長期來看，若出現更統一的開放標準（類似 CPU 的 x86 但為 AI 加速器），則競爭將從專屬生態轉向硬體性能與價格，這有助於新進者快速搶市。

這場競爭不只影響晶片公司營收，它會重塑雲端供應鏈、超級電腦配置、以及 AI 服務的成本結構。

若高通能在 2026–2027 年推出穩定、具價格/能效優勢的 Rack 方案，並取得大型部署合約，它可能成為「推理市場的顛覆者」；反之，若 NVIDIA 持續透過軟體與生態延伸其護城河，則 AMD 與高通需透過更多差異化（如價格、開放性、能源效率）來爭取市場。

未來三年將是關鍵：晶片規格固然重要，但誰能把硬體、軟體、能源、供應鏈整合成「客戶看得見的效益」，誰就可能主導下一輪 AI 基礎設施的版圖。

以上資訊僅供分享與參考之用，請自行保留獨立判斷。若想快速了解更多資訊，善用 AIMochi 筆記工具，幫我們從海量資料中，梳理出關鍵資訊，讓我們精準掌握重要訊息!